Несмотря на нехватку на рынке ускорителей NVIDIA H100 ещё один провайдер представил продукты на их основе. Облачная служба Oracle Cloud Infrastructure (OCI) объявила о доступности bare-metal инстансов OCI Compute на базе NVIDIA H100, предназначенных для крупномасштабных приложений искусственного интеллекта (ИИ) и высокопроизводительных вычислений (HPC).

Инстанс OCI Compute BM.GPU.H100.8 содержит восемь ускорителей H100, каждый из которых имеет 80 Гбайт памяти HBM2, 16 локальных накопителей NVMe ёмкостью 3,84 Тбайт каждый, два 56-ядерных процессора Intel Xeon Sapphire Rapids (2,0/3,8 ГГц), 2 Тбайт памяти DDR5, а также восемь 400G-адаптеров.

Также в этом году компании смогут воспользоваться OCI Supercluster для создания кластеров, включающих до 50 тыс. ускорителей H100. Эта опция поначалу будет доступна в регионах Лондона и Чикаго, а в будущем число регионов с её поддержкой будет увеличено. При этом в OCI доступен и сервис NVIDIA DGX Cloud, который также включает кластеры на базе H100.

Изображение: Oracle

Oracle также сообщила, что в начале 2024 года представит инстансы с новейшими ускорителями NVIDIA L40S. Например, инстанс BM.L40S.4 предложит четыре L40S с двумя 56-ядерными процессорами Intel Xeon, 1 Тбайт RAM, 15,36 Тбайт NVMe-хранилища и сетевое подключение 400 Гбит/с.

Компания Selectel, являющаяся специализированным поставщиком IT-решений на базе собственной сети дата-центров, готовит к запуску управляемый сервис по развёртыванию кластеров Kubernetes на базе выделенных серверов (Managed Kubernetes on Bare Metal). О реализации решения было объявлено на конференции Selectel Tech Day 2023.

В сообщении Selectel отмечается, что использование Managed Kubernetes на выделенных серверах позволит клиентам улучшить производительность своих микросервисных приложений, что обеспечивается за счёт отсутствия гипервизора, виртуализирующего ресурсы физических серверов.

Источник изображения: «Академия Selectel» / selectel.ru/blog/custom

Некоторые базы данных и приложения с постоянной нагрузкой могут быть требовательны к вычислительным ресурсам, в частности локальным дискам и сетям, поэтому возможность работы на «голом железе» позволит улучшить их производительность. При этом клиенты Selectel, как и раньше, могут использовать Managed Kubernetes в облаке для приложений с неравномерной нагрузкой, которым требуется автоматическое масштабирование.

Клиенты смогут использовать выделенные серверы для развёртывания воркер-нод Kubernetes, при этом мастер-ноды останутся в облаке. Сочетание выделенных и облачных серверов позволит одновременно обеспечить высокую производительность сервиса и снизить расходы на IT-инфраструктуру до 40 %. Решение гарантирует высокий уровень защиты данных, поскольку клиент получает выделенные и зарезервированные только под свой проект серверные мощности. Для реализации особо высоконагруженных вычислений (например, ML-проектов) возможна аренда кластеров Kubernetes на базе выделенных серверов с GPU.

Облачная платформа AWS сообщила о доступности инстансов Amazon EC2 M2 Pro Mac. В основу положены компьютеры небольшого формфактора Apple Mac mini, оснащённые фирменными процессорами M2 Pro.

В состав платформы включены устройства Mac mini с чипами M2 Pro, которые содержат 12 ядер CPU, 19-ядерный блок GPU и 32 Гбайт унифицированной памяти с малой задержкой и пропускной способностью в 200 Гбайт/с. Предусмотрен также движок Apple Neural Engine с 16 ядрами.

По заявлениям Amazon, новые инстансы обеспечивают увеличение производительности приблизительно на 35 % по сравнению с M1 Mac. Решение предназначено для компиляции, тестирования, сборки и подписывания Xcode-приложений для платформ Apple (macOS, iOS, iPadOS, tvOS, watchOS и Safari).

Источник изображения: Amazon

Как и другие экземпляры EC2 Mac, инстансы EC2 M2 Pro Mac поддерживают аренду выделенного хоста с минимальной продолжительностью 24 часа. Клиенты, применяющие инстансы на базе Mac mini, сообщают о сокращении времени сборки до четырёх раз, увеличении числа параллельных сборок до трёх раз и уменьшении количества сбоев, связанных с оборудованием, до 80 %.